أنشأت شركة "ميتا" فريق عمل بعد أن اكتشف صحافيّون وباحثون أنّ "إنستغرام" ساعدت في "استضافة وترويج شبكة واسعة من الحسابات المخصّصة للمحتوى الجنسيّ لمستخدمين دون السنّ القانونيّ.

 وأقرّت الشركة بوجود مشاكل، واتّخذت إجراءات بما في ذلك تقييد أنظمتها من التوصية للحسابات والمنشورات عند البحث عن محتوى مرتبط بالاعتداء الجنسيّ. 

وإلى جانب فرقة العمل التي أنشأتها، أخبرت "ميتا" المراسلين أنّها تعمل على حجب محتوى الاعتداء الجنسيّ على الأطفال، واتّخاذ خطوات لتغيير أنظمتها، وكانت قد أزالت 27 شبكة من شبكات الاستغلال الجنسيّ للأطفال خلال العامين الماضيين، وتعمل على إزالة المزيد.

ومع ذلك، يجب أن يكون ذلك بمثابة إنذار لـ"ميتا"، حسبما صرّح رئيس الأمن السابق لـ"فايسبوك" أليكس ستاموس، حين قال: "إنّ العثور على مثل هذه الشبكة الضخمة من فريق مكوّن من ثلاثة أكاديميّين ذوي وصول محدود، يجب أن يطلق الإنذار في ميتا". وأشار إلى أنّ أدوات الشركة أفضل بكثير من وسائل المحقّقين الخارجيّين، آملاً أن تعيد الشركة الاستثمار في المحقّقين البشريّين.

وحسب التقرير، تمكّن الأكاديميّون في مرصد الإنترنت في ستانفورد ومختبر الإنقاذ التابع لـ"UMass" من العثور بسرعة على "مجتمعات واسعة النطاق تروّج للانتهاكات الجنسيّة الإجراميّة"، وبعد إنشاء حسابات تجريبيّة على "إنستغرام" والبحث عن حساب يروّج للاعتداء، تمّ اقتراح حسابات شبيهة على الفور، وأدّى الدخول إلى هذه الحسابات إلى الترويج للمزيد من محتوى الاعتداء الجنسيّ.

ووجدت مجموعة ستانفورد أيضاً أنّ محتوى الاعتداء الجنسيّ "خطير بشكل خاصّ" على المنصّة.

من جهتها، قالت "ميتا" إنّها تسعى جاهدة لإزالة هؤلاء المستخدمين، وأنّها حذفت 490 ألف حساب ينتهك سياسات سلامة الأطفال في كانون الثاني وحده، وأضافت أنّ إحصاءاتها الداخليّة تظهر أنّ استغلال الأطفال يظهر في واحد من بين كلّ عشرة آلاف منشور.

ومع ذلك، قبل استفسار الصحافيّين، كانت "إنستغرام" تسمح للمستخدمين بالبحث عن مصطلحات قد تكون مرتبطة بموادّ الاعتداء الجنسيّ، مع عرض تحذير للمستخدمين من أنّ "هذه النتائج قد تحتوي على صور لاعتداء جنسيّ على الأطفال"، إلّا أنّها سمحت للمستخدمين بالحصول على الموارد أو عرض النتائج على أيّ حال.

علاوة على ذلك، تمّ تجاهل محاولات أغلب المستخدمين للإبلاغ عن عرض محتوى جنسيّ للأطفال من خلال خوارزميات المنصّة، وكانت اقتراحات "إنستغرام" تساعد في إعادة بناء الشبكة التي كان فريق السلامة بالمنصّة في منتصف محاولة تفكيكها.